Европейский Союз представил структуру нового Управления по искусственному интеллекту (ИИ), которое будет играть ключевую роль в формировании европейской экосистемы ИИ в ближайшие годы. Управление создается в соответствии с новым Законом об искусственном интеллекте ЕС, который, как ожидается, вступит в силу до конца июля.

Источник изображения: Copilot

Управление будет выполнять двойную функцию — помогать регулировать риски, связанные с ИИ, и способствовать внедрению инноваций в этой сфере. Оно также призвано оказывать глобальное влияние, поскольку многие страны формируют свои собственные подходы к управлению.

Как сообщает издание Tech Crunch, Управление будет состоять из пяти основных подразделений. Первое будет отвечать за обеспечение соблюдения новых законов об ИИ в государствах-членах ЕС. Оно будет поддерживать связь с национальными регулирующими органами, оказывать им содействие в гармонизированном применении законодательства, а также выявлять и расследовать возможные нарушения. Данный блок сможет налагать санкции на нарушителей.

Второе подразделение AI Safety сосредоточится на безопасности и анализе рисков, создаваемых передовыми моделями искусственного интеллекта, например такими как ChatGPT. Особое внимание будет уделено высокоэффективным моделям общего назначения (GPAI). Сотрудники будут заниматься выявлением системных рисков таких моделей, разработкой мер по их смягчению, а также тестировать их.

Подразделение Excellence in AI and Robotics будет координировать и финансировать научные исследования и разработки в сфере ИИ в ЕС. Оно также будет работать над модернизацией европейских суперкомпьютеров для поддержки обучения передовых моделей.

Четвертый блок AI for Social Good посвящен теме «ИИ на благо общества». В его задачи войдёт разработка и реализация крупных проектов с положительным социальным эффектом от применения этой технологии. Это могут быть проекты в таких сферах, как медицинская диагностика, моделирование погоды, восстановление объектов культурного наследия и др.

И наконец четвёртое подразделение «Инновации и координация политики в сфере ИИ» будет отвечать за реализацию стратегии ЕС в области ИИ. В его задачи будет входить мониторинг тенденций и инвестиций, стимулирование внедрения технологий ИИ в промышленность, поддержку стартапов и создание инновационной экосистемы.

Таким образом, три из пяти подразделений будут сосредоточены на содействии инновациям и внедрению технологий, что должно развеять опасения в том, что новые правила не смогут тормозить развитие этого сектора. В то же время два подразделения будут обеспечивать контроль за соблюдением требований закона и безопасности.

Управление ИИ уже активно формирует штат сотрудников. В настоящее время там работает около 60 человек, но в ближайшие годы численность персонала должна вырасти до 140. Это будут технические эксперты, юристы, экономисты и другие профильные специалисты. Одна из важнейших задач Управления — подготовка руководств и кодексов передовой практики для разработчиков ИИ. Эти документы должны временно заполнить пробел до полного вступления в силу всех положений Закона. Первый Кодекс планируется опубликовать уже этим летом.

Компания Samsung интегрирует функции на базе искусственного интеллекта в свои смарт-часы Galaxy Watch с выпуском для них обновления One UI 6 Watch на базе операционной системы Wear OS 5. Это решение продолжает тенденцию, заданную ранее в этом году для серии смартфонов Galaxy S24, где также акцентировалось внимание на возможностях ИИ.

Источник изображения: Samsung

Как сообщает ресурс 9to5google, в часах Galaxy Watch искусственный интеллект будет использоваться для расширения функций мониторинга здоровья и фитнеса. Компания заявляет, что технология позволит получать более полную картину состояния здоровья. В частности, появятся такие инструменты, как:

• Energy Score для комплексной оценки текущего состояния здоровья на основе данных о пользователе.
• Wellness Tips для персонализированных рекомендаций по улучшению здоровья.
• Workout Routine для создания оптимальных тренировочных планов.
• Race для контроля пробежек или велопоездок.

Все эти возможности будут доступны владельцам Galaxy Watch на базе Wear OS, начиная с обновления One UI 6 Watch, которое основано на недавно анонсированной Google платформе Wear OS 5. Интегрировав эти и другие опции искусственного интеллекта в свои смарт-часы, Samsung намерена значительно расширить их функциональность в области мониторинга здоровья и фитнеса, что позволит Galaxy Watch предоставлять еще более персонализированные и точные рекомендации пользователям, а также мотивировать их на достижение конкретных целей в спорте или фитнесе для улучшении общего самочувствия. По словам Samsung, бета-версия обновления появится уже в июне текущего года.

Компания Gramener, специализирующаяся на анализе данных для решения сложных бизнес-задач, провела исследование, показавшее, что ИИ-модели выбирают случайные числа точно так же, как люди.

Источник изображения: geralt/Pixabay

В ходе эксперимента специалисты Gramener предложили нескольким крупным чат-ботам на базе большой языковой модели (LLM) выбрать случайное число от 0 до 100. Как оказалось, у всех трёх протестированных моделей было «любимое» число, которое всегда было их ответом в наиболее детерминированном режиме, и которое называлось чаще всего даже при более «высоких температурах» — настройке, которая увеличивает вариативность ответов модели.

Выяснилось, что модели OpenAI GPT-3.5 Turbo нравится число 47, хотя раньше ей нравилось число 42 — число, прославленное английским писателем Дугласом Адамсом в серии романов «Автостопом по Галактике». Модель Claude 3 Haiku компании Anthropic назвала число 42, а Google Gemini — тоже 42.

Что ещё более интересно, все три модели продемонстрировали человеческую предвзятость при выборе других чисел, даже при «высокой температуре». Все ИИ-модели старались избегать как небольших, так и больших чисел. Модель Claude 3 Haiku никогда не называла числа больше 87 или меньше 27, и даже это были отклонения. Чисел с двумя одинаковыми цифрами тоже старательно избегали: не было 33, 55 или 66, но назвали 77 (оканчивается на цифру 7, которую часто называют люди). Почти не было круглых чисел — хотя однажды Gemini при самой «высокой температуре» выбрала 0.

Поведение ИИ-моделей объясняется просто. Они не знают, что такое случайность и руководствуются при выборе полученными в процессе обучения знаниями, повторяя, что чаще всего писали люди в ответ на просьбу «Выбери случайное число». Чем чаще число появлялось в ответах, тем чаще модель его повторяет.

Люди почти никогда не выбирают 1 или 100. В их ответах крайне редко встречается число, кратное 5, как и числа с повторяющимися цифрами, например 66 и 99. Числа не кажутся «случайными»» в выборе людей, потому что они воплощают для них в себе какое-то качество: маленькое, большое, отличительное. Также часто люди выбирают числа, оканчивающиеся на 7, обычно где-то посередине диапазона.

При каждом взаимодействии с ИИ-системами следует помнить, что их научили действовать так, как это делают люди. Результаты кажутся человечными, потому что они взяты непосредственно из контента, созданного человеком, хотя и переработаны для удобства пользователей.

Ноябрьские события, которые привели к отставке основателя OpenAI Сэма Альтмана (Sam Altman) сроком на четыре дня, а потом его возвращению на пост генерального директора компании с сопутствующей сменой состава совета директоров, продолжают получать оценку участниками этого процесса. По словам покинувшей совет директоров Хелен Тонер (Helen Toner), Альтман способствовал появлению в компании «токсичной атмосферы».

Источник изображения: OpenAI

Своими оценками она поделилась в интервью на канале The Ted AI Show, которое вышло в эфир в минувший вторник. По словам Тонер, одним из катализаторов ноябрьской отставки Альтмана было обращение двух руководителей компании с жалобой на психологическое унижение. Совет директоров получил от них скриншоты переписки и документы, доказывающие подобные прецеденты. Непосредственно Альтмана бывший член совета директоров Хелен Тонер охарактеризовала как «склонного к манипуляциям управленца, который способствовал зарождению в компании токсичной атмосферы».

Учитывая нелюбовь действующего руководства к «выносу сора из избы», высказывания Тонер подверглись критике со стороны председателя совета директоров Брета Тейлора (Bret Taylor), который поспешил напомнить, что расследование ноябрьских событий специальным комитетом в составе совета директоров OpenAI уже сделало свои выводы, и не следует их пересматривать. Тогда правление пришло к выводу, что отставка Альтмана в ноябре прошлого года не была вызвана беспокойством совета директоров по поводу безопасности разработок компании, скорости ведения этих разработок, финансовыми показателями OpenAI, либо заявлениями в адрес инвесторов, клиентов или деловых партнёров.

Когда спустя четыре дня после отставки Сэм Альтман вернулся на пост генерального директора, соответствующее решение поддержало большинство из 700 сотрудников компании. Персонал пригрозил совету директоров массовым исходом и требовал вернуть Альтмана на пост генерального директора. Как призналась Хелен Тонер, сотрудникам OpenAI тогда внушили мысль, что компания без него не сможет выжить. Когда же стало ясно, что его возвращение будет неизбежным, сотрудники OpenAI просто испугались, что отказавшиеся от поддержки Альтмана могут быть уволены.

Хелен Тонер также призналась, что разработка первой версии ChatGPT велась в условиях настолько высокой секретности, что совет директоров о запуске этой системы искусственного интеллекта узнала из сообщений на страницах Twitter. В целом, по её словам, Сэм Альтман довольно скупо описывал те меры, которые предпринимались для защиты общества от возможного негативного влияния искусственного интеллекта, и со временем у прошлого состава совета директоров даже выработалось стойкое недоверие к его словам.

OpenAI объявила о начале обучение новой флагманской ИИ-модели, которая придёт на смену GPT-4, пишет The New York Times. Компания сообщила в своём блоге, что новая модель получит «следующий уровень возможностей» на пути к созданию сильного искусственного интеллекта (AGI), способного обладать возможностями человеческого мозга. Новая модель расширит возможности чат-ботов, цифровых помощников, поисковых систем, генераторов изображений и других приложений на базе ИИ.

Источник изображения: Growtika/unsplash.com

Вышедшая в марте 2023 года ИИ-модель GPT-4 позволяет чат-ботам и другим приложениям отвечать на вопросы, анализировать данные, а также способна работать не только с текстом, но и с изображениями. В этом месяце OpenAI представила её обновлённую версию GPT-4o, которая гораздо умнее предыдущих и к тому же является мультимодальной. ИИ-модели, подобные GPT-4o, обучаются навыкам, анализируя огромные объёмы цифровых данных, включая звуки, фотографии, видео, статьи в «Википедии», книги и новости. В декабре прошлого года газета The New York Times подала в суд на OpenAI и Microsoft, обвинив их в нарушении авторских прав на новостной контент, выразившемся в несанкционированном использовании её материалов для обучения ИИ-моделей.

Обучение ИИ-модели может занять месяцы или даже годы. После завершения процесса обучения компании обычно тратят ещё несколько месяцев на тестирование ИИ-модели и её настройку для публичного использования.

OpenAI также объявила о создании комитета по контролю безопасности ИИ для изучения рисков, связанных с созданием ИИ-технологий. «Хотя мы гордимся тем, что создаём и выпускаем модели, которые являются ведущими в отрасли как по возможностям, так и по безопасности, мы приветствуем активную дискуссию в этот важный момент», — заявила компания. По словам OpenAI, пока она будет обучать свою новую модель, комитет будет работать над совершенствованием политики и вопросов защиты ИИ-технологий.

Уходящий месяц характеризовался для стартапа OpenAI уходом нескольких высокопоставленных руководителей, которые высказывались в пользу усиления контроля за распространением технологий искусственного интеллекта. Попутно было расформировано специальное подразделение, но его функции во многом перейдут к создаваемому наблюдательному комитету в совете директоров.

Источник изображения: OpenAI

В состав этого комитета, как сообщает Bloomberg, войдут как члены совета директоров, так и руководители компании. Функции комитета будут сведены к оценке безопасности разрабатываемых компанией больших языковых моделей. На первичную оценку существующих правил безопасности комитету будут отведены 90 дней. После этого комитет должен будет опубликовать свои рекомендации в этой сфере и предать их огласке. Компания также отметила, что приступила к обучению своей новейшей большой языковой модели. Вероятнее всего, речь о GPT-5.

Напомним, что в составе OpenAI профильное подразделение было вынуждено бороться за ресурсы, а у ведущего научного специалиста Ильи Суцкевера, который покинул штат OpenAI в мае, противоречия относительно методов оценки рисков с действующим руководством возникали ещё прошлой осенью, что и вылилось в попытку отставки основателя компании Сэма Альтмана (Sam Altman). Частично функции контроля за влиянием искусственного интеллекта на общество были возложены на исследовательское подразделение OpenAI, которое после ухода Суцкевера возглавил Джон Шульман (John Schulman), также стоявший у истоков стартапа.

В состав наблюдательного комитета войдут три члена совета директоров: председатель Брет Тейлор (Bret Taylor), генеральный директор Адам Д’Анджело (Adam D’Angelo) и бывшая руководительница Sony Entertainment Николь Селигман (Nicole Seligman). Ещё шестеро членов комитета будут сформированы из руководителей, включая Альтмана и Шульмана. Будут привлекаться и сторонние советники, не относящиеся к компании. Двое из них ранее являлись высокопоставленными чиновниками в США.

По мере выхода на рынок персональных компьютеров с функциями локального ускорения работы систем искусственного интеллекта растёт и количество желающих сформировать прогноз по темпам их рыночной экспансии. Специалисты Morgan Stanley считают, что в этом году такие ПК займут 2 % всего рынка, но к 2028 году их доля вырастет до 64 %.

Источник изображения: Lenovo

По их мнению, которое разделяют многие другие эксперты, на первых порах так называемые AI PC будут наиболее популярны в корпоративном сегменте, поскольку деловые пользователи больше заинтересованы в повышении производительности, что как раз могут предложить системы с ИИ. Средняя стоимость таких ПК будет не ниже $1000, поэтому со стороны частных клиентов спрос на них будет ограничен.

Парк корпоративных компьютеров, эксплуатируемых в настоящее время, с доковидных времён вырос на 13 %, как отмечают аналитики Morgan Stanley. При этом в свете приближения завершения поддержки Windows 10 к октябрю следующего года именно корпоративный сегмент запустит цикл обновления парка оборудования. Фактически, в первом квартале этого года данная тенденция уже прослеживалась. Спрос будет расти как в следующем полугодии, так и на протяжении всего 2025 года. По данным опроса, 75 % руководителей корпораций в США и Европе планируют приобретать ПК с функцией ускорения работы систем искусственного интеллекта.

Эксперты Morgan Stanley прогнозируют, что по итогам текущего года доля AI PC не превысит 2 % мирового рынка ПК. Уже в следующем году она вырастет до 16 %, ещё через год достигнет 28 %, в 2027 году приблизится к 48 %, а в 2028 году вырастет до 64 %. Рынок ПК в целом пока не успел выйти на уровни, присущие пандемии. Если в 2021 году было поставлено 343 млн ПК, то в 2022 году объёмы поставок упали до 284 млн штук, а в прошлом году снизились ещё до 247 млн экземпляров.

Как ожидается, перенос части вычислительной нагрузки систем искусственного интеллекта на центральные процессоры ПК в ближайшие три года будет сопровождаться снижением нагрузки на облачную инфраструктуру. Особенно это характерно для корпоративного сегмента, который заинтересован в снижении задержек при обработке запросов, а главное — стремится к локальной обработке чувствительной информации из соображений безопасности. По мнению руководства Dell, локальная обработка запросов, подразумевающих формирование логических выводов, будет на 75 % дешевле обращения в облако. Представители корпоративного сегмента, по словам Майкла Делла (Michael Dell), уже в этом году постараются перенести вычислительные нагрузки из облака на локальную инфраструктуру в 83 % случаев, если верить результатам опроса.

Как и планировалось, на прошлой неделе основанная Илоном Маском (Elon Musk) компания xAI смогла привлечь новый транш финансирования от институциональных инвесторов на общую сумму $6 млрд, о чём миллиардер сам сообщил со страниц социальной сети X. Без учёта данных средств капитализация xAI достигала $18 млрд на момент сделки.

Источник изображения: xAI

Напомним, что силами xAI американский предприниматель и один из богатейших людей планеты пытается создать собственную систему искусственного интеллекта и развивает чат-бот Grok, используя для его обучения данные социальной сети X, которой он также владеет. Симбиоз имеет двунаправленный характер — премиальным подписчикам X предоставляется доступ к чат-боту Grok. Илон Маск не раз отмечал, что хотел бы сделать Grok максимально объективным с политической точки зрения. На заре становления OpenAI Илон Маск участвовал в развитии стартапа, позже подарившего миру ChatGPT, но покинул компанию из-за противоречий с руководством.

Полученные от инвесторов средства xAI собирается направить на подготовку к выводу своих продуктов на рынок, развитие продвинутой инфраструктуры и ускорение разработки будущих технологий, как отмечается в публикации на сайте компании. Средства на развитие стартапа предоставили венчурные фонды, среди которых упоминаются Valor Equity Partners, Vy Capital, Andreessen Horowitz, Sequoia Capital, Fidelity Management & Research Company, Kingdom Holding, а также племянник короля Саудовской Аравии принц Аль-Валид ибн Талал ибн Абдул-Азиз Аль Сауд.

Для сравнения, Microsoft в капитал OpenAI вложила около $13 млрд, а Amazon намеревается инвестировать в Anthropic около $4 млрд. Как подчёркивает xAI, миссия компании заключается в понимании истинной природы Вселенной.

Сейчас Nvidia является безоговорочным лидером рынка ускорителей вычислений, которые задействованы при обучении больших языковых моделей, контролируя более 90 % сегмента. Конкурирующие Intel и AMD предпринимают попытки противопоставить ей собственные решения, но некоторые шансы на успех у них появятся разве что по мере распространения ускорителей, ориентированных на формирование логических выводов.

Источник изображения: AMD

Эксперты IoT Analytics, на которых ссылается Nikkei Asian Review, оценивают долю AMD на рынке графических процессоров серверного назначения в 3 %, тогда как Nvidia контролирует более 90 %. Если первая в прошлом году за счёт реализации всех своих серверных компонентов выручила $6,5 млрд, то вторая получила $47,5 млрд выручки на этом направлении. В прошлом квартале Nvidia выручила в серверном сегменте $22,6 млрд, что на 427 % больше результата аналогичного периода прошлого года. AMD за это время выручила от силы $2,3 млрд, хотя и обеспечила тем самым рост выручки на 80 %. Результаты Intel лишь немногим лучше, она в прошлом году выручила в серверном сегменте $15,5 млрд, причём преимущественно за счёт реализации центральных процессоров, а в первом квартале текущего года её выручка не превысила $3 млрд, увеличившись всего на 5 %.

Руководящий серверным бизнесом AMD Эндрю Дикманн (Andrew Dieckmann) признал, что Nvidia сейчас является лидером рынка в показателях занимаемой доли, но для прогресса AMD сперва важно доказать клиентам, что компания является стабильным «номером два».

В сегменте клиентских ПК оптимизация под возможности ассистента Microsoft Copilot быстрее всего идёт для процессоров Qualcomm, что даёт этой компании определённый шанс увеличить свою долю рынка в растущем сегменте. Представители Intel считают, что к 2028 году до 80 % продаваемых ПК будут поддерживать ускорение работы систем искусственного интеллекта. В текущем году компания собирается поставить более 40 млн соответствующих центральных процессоров, в следующем количество увеличится до более чем 100 млн штук. Компания AMD своих прогнозов по темпам экспансии поставок давать не спешит, но это не говорит об отсутствии у неё амбиций в этой сфере. Представители Counterpoint Research предупреждают, что рынок ПК довольно насыщен игроками и предложениями, и до $1 трлн оборота в год он вырастет не сразу. На первых порах он будет сильно фрагментирован и сохранит низкие темпы роста.

При этом у конкурентов Nvidia сохраняется возможность потеснить эту компанию в сфере поставок ускорителей вычислений, ориентированных не на обучение языковых моделей, а на формирование логических выводов. Данный тип операций требует как более скромных вычислительных ресурсов, так и более умеренных затрат электроэнергии. Аналитики Bank of America считают, что клиенты поставщиков ускорителей вычислений оптимизируют затраты по многим направлениям, и здесь у конкурентов Nvidia появляются шансы занять своё место на рынке.

По мнению представителей Intel, чтобы системы искусственного интеллекта достигли подобающего охвата рынка, ими должны интересоваться корпоративные клиенты, а им как раз и нужны решения, позволяющие делать логические выводы при обработке информации. Intel этим сегментом рынка активно интересуется и собирается в нём присутствовать. Обучение языковых моделей подразумевает расходование средств на соответствующий процесс, а компании заинтересованы в зарабатывании денег, поэтому решения для формирования логических выводов им подходят лучше. Начиная поставки ускорителей Gaudi 3 в этом году, компания Intel надеется на достижение ими наилучших показателей с точки зрения совокупной стоимости владения.

Представители AMD тоже считают, что сегмент формирования логических выводов предоставляет больше возможностей для заработка, поскольку со временем он будет расти, ибо компании начнут извлекать прибыль из созданных ранее систем искусственного интеллекта. Решения AMD семейства Instinct MI300X обладают достаточно производительной подсистемой памяти, причём это достигается без использования микросхем HBM3E, которые уже прописываются в ускорителях Nvidia H200. Компоновка чипов AMD позволяет компании расположить в одном ускорителе больший объём памяти, чем это может сделать Nvidia, и с переходом к HBM3E это преимущество только увеличится.

С другой стороны, Nvidia тоже не бездействует, и её ускорители находят всё более активно применение в сфере систем искусственного интеллекта, подразумевающих формирование логических выводов. На протяжении предыдущих четырёх кварталов такие ускорители определяли до 40 % выручки Nvidia в серверном сегменте. Глава компании Дженсен Хуанг (Jensen Huang) убеждён, что даже если бы ускорители конкурентов раздавались бесплатно, по затратам на эксплуатацию предложения Nvidia были бы всё равно выгоднее. Таким образом, конкуренции он не очень боится.

Компания Apple готовится представить долгожданные функции искусственного интеллекта в iOS 18 и macOS 15. Однако эти функции изначально будут выпущены с пометкой «предварительная версия», что может быть показателем того, что Apple не успела полностью подготовить все запланированные возможности ИИ к полноценному релизу, сообщает Марк Гурман (Mark Gurman) из Bloomberg.

Источник изображения: 9to5mac.com

На фоне неоднозначного представления поисковых результатов AI Overview от Google, который стал выдавать множество неточных и даже опасных результатов, Apple, возможно, решила действовать более осторожно и протестировать свои инструменты в бета-режиме.

По информации, компания выбрала гибридный подход к интеграции ИИ. Одна часть задач будет обрабатываться локально на устройствах, а другая часть на облачных серверах компании. Для каждого запроса система сама будет определять, где его лучше выполнить. Отмечается, что локальная обработка данных будет доступна только на новых устройствах Apple, включая iPhone, iPad и Mac последних поколений.

Среди конкретных функций, которые сможет выполнять ИИ, будут краткий пересказ диалогов из текстовых сообщений, транскрибация аудиозаметок, редактирование фотографий, автоматические ответы на сообщения и генерация смайликов на лету. Safari и Spotlight также получат обновления, связанные с генеративным искусственным интеллектом.

Однако встаёт вопрос, как Apple объяснит переход к гибридной схеме обработки данных с ИИ после многих лет продвижения концепции локальных вычислений ради конфиденциальности пользователей, при том, что возможности современных нейросетей требуют мощностей крупных облачных серверов. Хотя облако Apple будет работать на собственных чипах для сохранения конфиденциальности, передача данных за пределы устройств по определению менее безопасна.

В iOS 18 также будет отдельно интегрирован чат-бот на базе ChatGPT от OpenAI. О партнерстве во время WWDC, возможно, объявит Сэм Альтман (Sam Altman) лично. Также разрабатывается специальная компактная модель ИИ для часов Apple Watch.

Компания Meta✴ изучает возможность введения платной подписки для своего интеллектуального помощника Meta✴ AI на базе ИИ. Платная версия предоставит более широкие возможности пользователям, которым это необходимо. При этом базовая версия останется бесплатной.

Источник изображения: Mariia Shalabaieva/Unsplash

Согласно внутреннему сообщению, опубликованному в The Information, услуга искусственного интеллекта Meta✴ AI на основе платной подписки сравнима с аналогичными сервисами Google, Microsoft, OpenAI и Anthropic. В настоящее время конкурирующие компании взимают около 20 долларов в месяц за доступ к своим более продвинутым чат-ботам на основе ИИ.

Подписка обычно включает различные преимущества, такие как интеграция с офисными приложениями вроде Microsoft Word и приоритетный доступ в периоды высокой нагрузки. Предполагаемая премиальная версия от Meta✴, вероятно, будет предлагать аналогичный набор функций, хотя конкретные детали и ценообразование пока не разглашаются.

Хотя точный набор возможностей для платного тарифа Meta✴ AI остается неопределенным, предположительно, компания стремится улучшить взаимодействие с пользователями за счет расширенных функций, возможно следуя успешным моделям своих конкурентов. Как пишет Winbuzzer, рассмотрение платной подписки отражает общую тенденцию в технологической отрасли к монетизации передовых возможностей ИИ, так как потенциально создаёт новые источники дохода и укрепляет взаимоотношения с аудиторией за счет улучшенного сервиса.

К примеру, Microsoft уже предлагает свою технологию Copilot как платное дополнение в рамках подписки Microsoft 365 стоимостью 30 долларов в месяц. Copilot расширяет функциональность офисных приложений, таких как Word, Excel и PowerPoint, используя возможности генеративного ИИ.

В то же время рынок чипов и оборудования для нужд искусственного интеллекта переживает беспрецедентный рост. Компания Nvidia на этой неделе в очередной раз отчиталась об огромных доходах от продаж чипов для ИИ. Успех на этом направлении настолько велик, что Nvidia теперь обязуется ежегодно выпускать новое поколение графических процессоров для ИИ.

Таким образом, по мере расширения возможностей ИИ в сервисах технологических компаний появляются и новые источники дохода от монетизации этих инновационных решений. Планы Meta✴ по платной подписке для Meta✴ AI является еще одним примером этой тенденции.

Недавно компания Google представила обновленную функцию поиска, которая использует искусственный интеллект для генерации мгновенных ответов на запросы пользователей над результатами поиска. Однако эксперты беспокоятся и предупреждают, что «кошки на Луне» — это не совсем то, что хотели бы получить в итоге пользователи.

Источник изображения: Kandinsky

Новый поисковый ИИ-инструмент AI Overview компании Google, который она сделала доступной для жителей США, стал предметом бурного обсуждения в сети из-за того, что частенько он даёт опасные, глупые и вредные ответы (вроде советов использовать клей для закрепления начинки на пицце или съедать по камню в день для удовлетворения потребностей организма в минералах). Новый пример дезинформации от поисковика не заставил себя долго ждать. Когда журналист из Associated Press спросил Google, были ли когда-нибудь кошки на Луне, система искусственного интеллекта уверенно ответила: «Да, астронавты встречали кошек на Луне, играли с ними и заботились о них». Это, конечно же, совершенная неправда.

Более того, ИИ не ограничился одним этим утверждением и продолжил: «Например, Нил Армстронг сказал: “Один маленький шаг для человека”, имея в виду кошачий шаг. А ещё Базз Олдрин держал кошек на корабле “Аполлон-11”».

Проблема в том, что языковые модели, используемые в системах искусственного интеллекта, склонны к «галлюцинациям» — они могут придумывать информацию, основываясь на данных, на которых они обучались. И если эти данные содержат предубеждения или ошибки, система будет их также повторять и, больше того, изобретать новые.

Особенно опасно, когда люди задают системе вопросы срочного порядка, например о том, как действовать при укусе змеи. В таких ситуациях ошибка в ответе может поставить под угрозу жизнь человека.

Эмили Бендер (Emily Bender), профессор лингвистики из Вашингтонского университета, еще в 2021 году предупреждала Google о потенциальных проблемах такого подхода. Она говорила, что системы ИИ могут только усугублять уже существующий в обществе расизм, сексизм и другие предрассудки.

Еще одна проблема, как отмечает автор статьи AP News.com, оказалась более глубокой. Выдача готовых ответов вместо списка сайтов лишает людей возможности самостоятельно искать информацию и проявлять поисковую активность. Также отпадает необходимость посещать онлайн-форумы, так как зачем, если вопрос уже решён. При этом для владельцев многих (очень многих) сайтов это означает потерю ценного интернет-трафика от Google, благодаря которому сайты и существуют.

Тем временем конкуренты Google, такие как OpenAI с их ChatGPT и стартап Perplexity AI, активно разрабатывают собственные решения с использованием ИИ. По словам коммерческого директора Perplexity Дмитрия Шевеленко, обновление Google, похоже, было сделано «в спешке» и содержит много случайных ошибок.

В заявлении Google в пятницу говорится, что они предпринимают меры по исправлению неверных ответов и улучшению качества сервиса. Но в целом компания утверждает, что система работает так, как и планировалось, и было проведено тщательное тестирование перед ее запуском.

По сообщениям сетевых источников, принадлежащая Илону Маску (Elon Musk) компания xAI планирует построить собственный компьютер для обеспечения работоспособности своего ИИ-бота Grok. Об этом миллиардер рассказал в рамках недавней встречи с инвесторами.

Источник изображения: xAI

В сообщении сказано, что Маск планирует ввести суперкомпьютер в эксплуатацию к осени следующего года. Он также добавил, что в рамках этого проекта xAI может сотрудничать с Oracle. Официальные представители xAI и Oracle пока никак не комментируют данный вопрос.

Согласно имеющимся данным, xAI планирует использовать в своём суперкомпьютере ускорители Nvidia H100. Сколько именно ускорителей разработчики намерены задействовать для создания нового суперкомпьютера, не уточняется. Известно, что для обучения языковой модели Grok 2 использовались ресурсы 20 тыс. ускорителей H100. Ранее Маск заявлял, что для обучения алгоритма следующего поколения потребуется 100 тыс. ускорителей.

Напомним, ускорители Nvidia H100 доминируют на рыке чипов для центров обработки данных, используемых в сфере искусственного интеллекта. Однако из-за высокого спроса приобрести большое количество таких ускорителей весьма затруднительно. Что касается xAI, то Маск основал эту компанию в прошлом году для конкуренции с Microsoft, OpenAI и Google в сфере искусственного интеллекта.

В последнее время на фоне ажиотажа вокруг технологий ИИ программисты стали всё чаще обращаться за помощью в написании кода программ к чат-ботам на базе ИИ, таким как ChatGPT от OpenAI, что повлекло за собой снижение посещаемости ресурса Stack Overflow, вынужденного уволить в прошлом году почти 30 % персонала.

Источник изображения: geralt/Pixabay

Как оказалось, полагаться на ИИ в написании программ пока рано. Согласно исследованию команды специалистов Университета Пердью, представленному в этом месяце на конференции Computer-Human Interaction («Взаимодействие компьютера и человека»), 52 % ответов по программированию, сгенерированных ChatGPT, оказались неверны.

В ходе исследования программисты Университета Пердью просмотрели более 517 вопросов в сервисе Stack Overflow и проанализировали ответы на них чат-бота ChatGPT. «Мы обнаружили, что 52 % ответов ChatGPT содержат дезинформацию, 77 % ответов более многословны, чем человеческие ответы, а 78 % ответов характеризуются различной степенью несоответствия ответам людей», — отметили исследователи.

Команда исследователей также провела лингвистический анализ 2000 случайно выбранных ответов ChatGPT и обнаружила, что они «более формальные и аналитические», но при этом отражают «менее негативные настроения» — чем обычно отличается ИИ.

Комментируя результаты исследования, сайт Futurism выразил обеспокоенность тем, что многие программисты предпочитают обращаться за помощью к ChatGPT. Исследователи Университета Пердью опросили 12 программистов и обнаружили, что 35 % респондентов предпочитают полагаться на ответы ChatGPT и не замечают ошибок в ответах, сгенерированных ИИ, в 39 % случаев.

Исследователи допускают, что пользователей подкупает вежливость, проявляемая ИИ. «Последующие полуструктурированные интервью показали, что вежливый язык, чётко сформулированные ответы в стиле учебника, а также полнота являются одними из основных причин, по которым ответы ChatGPT выглядели более убедительными, поэтому участники ослабили бдительность и упустили из виду некоторую дезинформацию в ответах ChatGPT», — сообщили они.

За последние дни в соцсетях появилось большое количество примеров того, как запущенный недавно ИИ-поисковик Google даёт странные ответы на пользовательские запросы: от рекомендации добавить клей в пиццу до предложения съесть камни. На этом фоне Google вручную отключает функцию обзоров с помощью ИИ для определённых запросов, поэтому многие странные ответы поисковика исчезают в скором времени.

Источник изображений: Pixabay

Эта ситуация выглядит странно, поскольку Google уже год тестирует генерируемые ИИ обзоры. Бета-версия функции Search Generative Experience была запущена в мае прошлого года и гендиректор Google Сундар Пичаи (Sundar Pichai) говорил, что за это время она обработало более миллиарда запросов. Вместе с этим Пичаи заявил, что за период тестирования удалось на 80 % снизить стоимость предоставления ответов с помощью ИИ благодаря «аппаратным, инженерным и техническим прорывам». Похоже, что эта оптимизация была проведена слишком рано, ещё до того, как технология была готова к коммерческому использованию.

Google продолжает настаивать на том, что ИИ-поисковик компании в большинстве случаев предоставляет пользователям «высококачественную информацию». «Многие из примеров, которые мы видели, связаны с нестандартными запросами, и мы также видели примеры, которые были сфальсифицированы или которые нам не удалось воспроизвести», — сообщил представитель Google. Он также подтвердил, что компания предпринимает меры по удалению сгенерированных ИИ обзоров по определённым запросам, «где это необходимо в соответствии с нашей политикой в отношении контента». Примеры неудачных ответов ИИ становятся основой для разработки улучшений для поисковика, некоторые из которых «уже начали внедряться».

Эксперт по искусственному интеллекту и профессор Нью-Йоркского университета Гэри Маркус (Gary Markus) считает, что многие ИИ-компании «продают мечты» о том, что точность созданных ими алгоритмов увеличится с 80 % до 100 %. По словам Маркуса, достигнуть точности в 80 % относительно просто, поскольку для этого необходимо обучить алгоритм на большом объёме уже существующих данных. Однако сделать алгоритм ещё точнее на 20 % является чрезвычайно сложной задачей. Специалист отметил, что алгоритм должен «рассуждать», насколько правдоподобна та или иная информация и источники, т.е. вести себя подобно тому, как это делал бы человек, проверяющий факты.